EU-Kommission will Terrorismus mit Upload-Filtern und automatischen Systemen bekämpfen

Über ein Jahr lang hatte die EU-Kommission den Plattformbetreibern damit gedroht. Heute hat die Brüsseler Behörde schließlich ihren Gesetzentwurf vorgelegt, der Plattformen aller Art – auch simple Webseiten, die eine Kommentarfunktion zur Verfügung stellen – zum Einsatz einer Zensurinfrastruktur verpflichtet. Also auch uns. Und viele Webseiten von Abgeordneten. Die EU-Verordnung richtet sich gegen „terroristische Inhalte“, die innerhalb einer Stunde gelöscht oder proaktiv erkannt werden müssen. Geschieht dies nicht schnell genug, drohen empfindliche Strafen von bis zu vier Prozent des weltweiten jährlichen Umsatzes.

Die Kommission begründet diesen Schritt mit der Gefahr, die von terroristischer Propaganda im Internet ausgehe. Zudem hätten die bisherigen freiwilligen Maßnahmen nicht den gewünschten Erfolg gebracht. „Wir haben zwar im Rahmen der freiwilligen Zusammenarbeit bereits Fortschritte bei der Entfernung terroristischer Online-Inhalte erzielt, jedoch reicht das nicht aus“, sagte Julian King, Kommissar für die Sicherheitsunion. „Wir müssen verhindern, dass diese Inhalte überhaupt hochgeladen werden, und wenn es doch so weit kommt, muss dafür gesorgt werden, dass sie so schnell wie möglich entfernt werden, bevor sie ernsthaften Schaden anrichten.“

Gesetz umfasst viele Anbieter im Netz

Bislang richteten sich die Bemühungen der Kommission in erster Linie gegen große Plattformen wie soziale Netzwerke, beispielsweise Facebook. Künftig will sie aber Diensteanbieter praktisch jeglicher Art erfassen, die in Europa tätig sind, unabhängig von ihrer Größe oder ihrem Standort: „Beispiele hierfür sind Plattformen sozialer Medien, Videostreamingdienste, Video‑, Bild- und Audio-Sharing-Dienste, File-Sharing- und andere Cloud-Dienste sowie Websites, auf denen die Nutzer Kommentare oder Rezensionen abgeben können“, führt die Kommission in einem Factsheet aus.

So sollen Betreiber künftig proaktiv und mit Hilfe automatisierter Werkzeuge dafür sorgen, dass solche Inhalte erst gar nicht in Internet auftauchen. Ein solches Werkzeug wäre etwa eine gemeinsam von Facebook, Microsoft, Twitter und YouTube errichtete Datenbank, die seit über einem Jahr im Einsatz ist. Darin speichern die Plattformen digitale Fingerabdrücke einmal als „terroristisch“ erkannter Inhalte. Einmal dort abgelegt, unterbinden die Upload-Filter ein erneutes Hochladen. Auf Druck der Kommission haben sich mittlerweile immer mehr Plattformen an diese Datenbank angeschlossen. Einen Zwang dazu gibt es zwar vordergründig nicht. Aber laut dem Verordnungsentwurf können nationale Behörden verfügen, dass Plattformbetreiber nur „unzureichende“ proaktive Maßnahmen ergriffen hätten, und sie dazu zwingen, zusätzliche Mittel einzusetzen.

Finden „terroristische Inhalte“ an den Upload-Filtern vorbei ihren Weg ins Netz, dann sind Betreiber dazu verpflichtet, innerhalb einer Stunde auf eine Meldung zu reagieren und inkriminierte Inhalte zu entfernen. Dazu sieht die Kommission nicht näher definierte „nationale Behörden“ oder etwa Europol vor, die sich an eine einzurichtende Kontaktstelle bei den Betreibern wenden können. Bei dieser verpflichtenden Entfernungsanordnung kann es sich um eine „administrative oder gerichtliche Entscheidung“ aus dem Mitgliedstaat handeln. Rechtsstaatlichkeit soll eine Einspruchsmöglichkeit der Plattformen gewährleisten. Umgekehrt muss jeder in Europa tätige Diensteanbieter eine Kontaktstelle benennen, um innerhalb des vorgeschriebenen Zeitfensters handeln zu können.

Nutzer, deren Inhalte gelöscht wurden, müssen darüber benachrichtigt werden. Eine Begründung für die Löschung gibt es auf Nachfrage. Ausnahmen sind für Fälle vorgesehen, wenn Ermittlungen eingeleitet werden. Jährliche Transparenzberichte sollen Klarheit schaffen, wieviel gelöscht wurde.

Unmöglicher Spagat

Bei alledem versucht die Kommission, den Spagat zu schaffen zwischen einer offensichtlichen Überwachungspflicht, ohne auf einer Überwachungspflicht zu bestehen. Eine solche Pflicht untersagen einschlägige Urteile des Europäischen Gerichtshofes sowie die E‑Commerce-Richtlinie, die Hostprovider zudem von einer Haftung freistellt. Handeln müssen Plattform- oder Webseitenbetreiber für illegale Inhalte erst dann, wenn sie auf solche aufmerksam gemacht wurden. Sollten aber Behörden künftig feststellen, dass ein bestimmter Betreiber keine ausreichenden proaktiven Maßnahmen umgesetzt hat, können sie diesen zu „angemessenen, effektiven und proportionalen proaktiven“ Schritten verpflichten. „Im Prinzip“, heißt es im Entwurf, sollte das nicht auf eine generelle Überwachungspflicht hinauslaufen.

Freilich lassen sich jedoch kaum proaktive Maßnahmen umsetzen, ohne sämtliche Inhalte bereits vor dem Hochladen zu überprüfen. „Das führt zu einer Privatisierung der Strafverfolgung, macht die kleinen Unternehmen kaputt oder macht sie abhängig von den großen Unternehmen“, sagt Elke Steven von der Digital-NGO Digitale Gesellschaft. Zudem würde es sich um einen schwerwiegenden Eingriff in die Meinungsfreiheit handeln. Maßnahmen wie Upload-Filter „laborieren an den vermeintlichen Symptomen herum und tragen nichts zur Bekämpfung der Ursachen bei“, sagt Steven.

Terrordefinition schwammig

Unter „terroristische Inhalte“ oder „Straftaten“ fallen die in der Anti-Terrorismus-Richtlinie definierten Tatbestände sowie etwa Postings, die solche Akte „glorifizieren“ oder dazu „anstiften“. Diese Gummiparagraphen haben bereits bei der Verabschiedung der Richtlinie im Vorjahr für heftige Kritik gesorgt, da beispielsweise auch Aktivismus unter Terrorverdacht gestellt werden kann. Im schlimmsten Fall könnten, wenn in Europa der Gang in die „illiberale Demokratie“ weiter anhalten sollte, antifaschistische Protestformen kurzerhand zu „Terrorismus“ erklärt und im Netz unterbunden werden. Oder ein Verfassungsschutz-Chef deklariert willkürlich einen bestimmten Inhalt, etwa ein Video, als „Terrorismus“, meldet es an die Plattformen und lässt es bis auf Weiteres aus dem Netz verschwinden.

Diese „fehlende Unabhängigkeit der Zensurbehörden“, die Sperrungen „terroristischer Informationen“ anordnen können, kritisiert Patrick Breyer, Spitzenkandidat der Piratenpartei zur Europawahl 2019. „Damit kann unsere Meinungs- und Informationsfreiheit beispielsweise in die Hand des ungarischen Innenministeriums oder eines örtlichen Polizeibeamten in Rumänien gelegt werden, was inakzeptabel ist“, sagt Breyer. Die Entfernung von Inhalten anzuordnen müsse einer unabhängigen Behörde wie einem Gericht, einem Beauftragten von Meinungsfreiheit oder einem Bürgeranwalt vorbehalten bleiben, fordert der Bürgerrechtler.

Die französische Digital-NGO La Quadrature du Net befürchtet, dass der Kommissionsvorschlag bestehende Machtverhältnisse im Netz nur vertiefen würde. „Sollte dieses Gesetz angenommen werden, würden die Quasi-Monopole des Internets (Google, Amazon, Facebook, Apple, Microsoft, Twitter …) festgeschrieben als Schlüssel-Akteure für die Sicherheitspolitik der Mitgliedstaaten und bestärkt in ihrer ohnehin bereits dominanten Position – jeder andere Diensteanbieter könnte von einer Schließung bedroht sein, inklusive dezentralisierter Dienste, die unsere Freiheiten schützen“, schreiben die Aktivisten in einer Stellungnahme.

„Acht Monate vor den EU-Parlamentswahlen legt die Kommission – zum wiederholten Male – einen neuen Gesetzentwurf vor, der minimal Rücksicht nimmt auf Effektivität oder für Grundrechte“, sagt Maryant Fernández Pérez von der digitalen Grundrechte-NGO European Digital Rights (EDRi). Dies macht jedoch deutlich, dass eine tatsächliche Verabschiedung dieses Vorschlags noch in den Sternen steht. Zwar haben die Innenminister gewichtiger Mitgliedstaaten, zuletzt die von Deutschland und Frankreich, Druck auf die Kommission ausgeübt. Dennoch müssten sowohl die Mitgliedstaaten als auch das EU-Parlament zustimmen. Angesichts der Brisanz des Verordnungsentwurfs ist kaum mit einer schnellen Einigung zu rechnen.

„Reine Symbolpolitik“

Zudem regt sich nicht nur aus der Zivilgesellschaft Widerstand, sondern auch aus der Digitalwirtschaft. Diese fürchtet eine Aushöhlung des Providerprivilegs und der E‑Commerce-Richtlinie, die ein Grundpfeiler für die europäische Digitalwirtschaft ist. So bezeichnet der deutsche Verband der Internetwirtschaft eco die starren Löschfristen als „reine Symbolpolitik“. Nach bestehender Rechtslage müssen rechtswidrige Inhalte schon heute unverzüglich gelöscht werden, sobald Plattform-Betreiber Kenntnis davon erlangen, heißt es in einer eco-Pressemitteilung. Anstatt neue Gesetze zu schaffen, sei eine konsequente Strafverfolgung der Schlüssel, um nachhaltig Straftaten im Internet zu bekämpfen. „Wir brauchen mehr Staatsanwälte und Richter, damit der Staat seinem Strafverfolgungsauftrag gerecht werden kann“, sagt eco-Geschäftsführer Oliver Süme. „Das kann nicht zunehmend auf die private Hand abgewälzt werden, insbesondere nicht bei Terrorismus.“

Große Anbieter erklärten gegenüber netzpolitik.org, dass terroristische Inhalte keinen Platz auf ihren Plattformen hätten. „Darum haben wir viel in Menschen, Technologie und Zusammenarbeit mit anderen IT-Unternehmen in diese Bemühungen investiert“, sagte ein Youtube-Sprecher. Man begrüße den Fokus der EU-Kommission und werde weiterhin eng mit ihr, den Mitgliedstaaten und Ermittlungsbehörden in diesem Bereich zusammenarbeiten. Eine Facebook-Sprecherin sagte, das Unternehmen teile das Ziel der Kommission: „Wir haben signifikante Fortschritte beim Finden und Entfernen von terroristischer Propaganda erzielt, sowohl in der Schnelligkeit als auch im Umfang“, sagte eine Sprecherin. „Aber wir wissen, dass wir mehr tun können.“

Update: Stellungnahmen von Patrick Breyer, La Quadrature du Net, Youtube und Facebook hinzugefügt.

Irrtümlicherweise haben wir den Entwurf ursprünglich als Richtlinie bezeichnet. Es handelt sich jedoch um eine EU-Verordnung, die nach einer etwaigen Verabschiedung unmittelbar in europäisches Recht übergehen würde.